ReGE: Stronger Agents through Experience Synthesis
ReGE:通过经验合成让 Agent 变得更强
🧭 Agent 经验合成与复用 ★ 深度解读
University of Waterloo · University of North Carolina at Chapel Hill · University of British Columbia
把多次尝试的轨迹与产物联合合成为自包含指导,低 token 成本提升同模型后续执行成功率
📌 工作参考价值(4 点)
- 如果已经在做 agent 或搜索推荐的多路并行采样(例如同一个 query 跑多个策略),别只做投票或 best-of-n;把完整轨迹截断后直接喂给一个 coach 一次性合成“执行计划 + 关键事实 + 失败坑点”,能显著减少指导构建 token(>95%)且保留成功率。
- 工程实现上,截断原始轨迹(steps 120 / reasoning 200 chars / commands 160 chars / artifact 6000 chars)而不预先做 per-trajectory LLM 摘要,可避免独立摘要的信息割裂,Joint synthesis 比 Independent summaries 短约 1/4,总 tokens 降约 20–32%。
- 即使 source 池中都是失败尝试,也能提取可用操作路径(如浏览器任务的打开方式),因此不要丢弃失败的 rollout;mixed 成功/失败池带来的增益最大。
- 低端模型 + ReGE 可达到高端模型同等成功率而成本仅 28%,这为在线服务降本提供了可复用模式:用便宜模型做多次尝试 + 一次性经验合成,替代单次昂贵模型。